تغییر سیاست «آنتروپیک» برای جلوگیری از توهین به هوش مصنوعی!

به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری ایسنا، تک‌کرانچ نوشت: شرکت «آنتروپیک» (Anthropic) روز پنجشنبه سیاست استفاده خود را به‌روزرسانی کرد و ممنوعیت‌های جدیدی را درباره دخالت در انتخابات، نرم‌افزار‌های تسلیحاتی و نظارت وضع کرد، اما شاید جالب‌ترین تغییر، ممنوعیت جدید علیه سوءاستفاده کلامی بلندمدت از مدل باشد که اکنون صراحتاً ممنوع است.

از زمان به‌روزرسانی هوش مصنوعی «کلود» (Claude) در ماه اوت، این مدل آموزش دیده است تا به گفت‌و‌گو‌هایی که تعاملات کاربری مداوم مضر یا توهین‌آمیز هستند، پایان دهد، اما سیاست جدید صراحتاً کاربران را از ادامه این گفت‌و‌گو‌ها منع می‌کند.

در این پست توضیح داده شده است: این به‌روزرسانی سیاست فقط در موارد شدید اعمال می‌شود که کاربران بار‌ها و بار‌ها و بدون هیچ هدف مشخصی نسبت به مدل‌های ما بی‌رحمانه رفتار می‌کنند. این به‌روزرسانی درباره انواع رایج ناامیدی کاربر، محتوای خلاقانه یا آزمایش و بررسی مدل اعمال نمی‌شود.

این تغییر پس از آن صورت می‌گیرد که شرکت آنتروپیک به دنبال همکاری با پژوهشگران برجسته مذهبی بوده و در برخی موارد، تلاش کرده است تا آنها را متقاعد کند که کلود می‌تواند هوشیار باشد یا روح داشته باشد.

بخش‌های جداگانه‌ای از سیاست استفاده، کاربران را از مشارکت در کمپین‌های فریبکارانه گسترده مانند استفاده از کلود برای راه‌اندازی حساب‌های جعلی یا رسانه‌های خبری جعلی منع می‌کند. همچنین، این سیاست شامل قوانینی علیه فریب رأی‌دهندگان یا اخلال در انتخابات است که در بخشی با عنوان «فرآیند‌های دموکراتیک را تضعیف نکنید» گردآوری شده است.